Jovanovic có trận ra mắt cho FK Vojvodina ở mùa giải 1999-2000. Anh giành phần lớn thời gian đầu của sự nghiệp ở Shakhtar Donetsk và Lokomotiv Moscow, trước khi chuyển sang Standard Liège vào năm 2006. Ở Standard Liege, Jovanovic nhanh chóng được các fan yêu mến, ghi 14 bàn trong mùa giải đầu tiên và nhận được biệt danh "con rắn" cho lối di chuyển nhanh nhẹn của anh. Jovanovic có được thành công lớn ở Bỉ vào ngày 13 tháng 1 năm 2010, anh được bầu là cầu thủ xuất sắc nhất năm của Giải vô địch quốc gia Bỉ. 2 mùa giải tiếp đó đều là những mùa giải thành công. Tuy nhiên, anh và huấn luyện viên của Standard lúc đó, László Bölöni, có xích mích khi Jovanovic cãi nhau với đồng đội trên sân. Boloni loại cầu thủ này ra khỏi đội hình, nhưng Jovanovic vẫn ghi được 12 bàn thắng trong mùa giải cuối cùng ở Standard.

Milan gia nhập Liverpool FC vào ngày 8 tháng 7 năm 2010 theo dạng chuyển nhượng tự do. Đã có những tin đồn rằng anh sẽ từ bỏ bản hợp đồng với Liverpool sau khi huấn luyện viên đội bóng này Rafael Benítez bị sa thải vào tháng 6 năm 2010. Benitez cho biết ông muốn đem cầu thủ này tới đội bóng mới của mình là Inter Milan nhưng anh xác nhận vẫn mong muốn ký hợp đồng với Liverpool.[3][4]

Anh được nhận số áo 14, số áo mà Alono đã mặc trước khi qua Real Madrid. Anh có trận đấu ra mắt trong màu áo Liverpool trong chiến thắng 2-0 trước FK Rabotnički ở Europa League ngày 29 tháng 7. Trận đấu đầu tiên của Milan tại Premier League là trận hoà 1-1 với Arsenal vào ngày 15 tháng 8 năm 2010 ở vòng 1 Premier League 2010-11.[5] Anh ghi bàn thắng đầu tiên cho Liverpool trong trận đấu tại Carling Cup với đội bóng hạng 4 Northampton Town tại Anfield. Sau đó hầu như anh gần ít được trọng dụng trên hàng tiền vệ, và đã rất lâu do luật của bóng đá anh vào thời điểm đó. Jovanovic trở lại vào mùa giải 2010/2011, anh vào sân thay người cho Kuyt.